针对多输入多输出—非正交多址接入（MIMO-NOMA）技术中用户间干扰较大的问题，提出了一种融合用户调度的波束赋形（BF）算法。首先，在进行用户调度时，为了同时兼顾簇内用户干扰和簇间用户干扰，根据各用户信道的差异性，利用L1-范数正则化方法对所有用户分组情况进行初步稀疏化处理，进而从各用户信道相关性角度出发，将信道相关性大的两个用户分为一簇；其次，结合部分发射功率控制（FTPC）策略实现簇内用户功率分配；最后，根据和速率最大化准则构建一目标优化函数，进而利用连续凸逼近（SCA）算法对其进行求解，以获得波束赋形矩阵。理论分析和链路仿真表明，与传统的正交多址接入技术相比，在系统容量方面实现了84.3%的提升；与传统的相关性用户分簇方法相比，在公平性方面实现了20.2%的提升。实验结果表明，该方案不仅有效地抑制了簇内用户干扰和簇间用户干扰，同时，又保证了用户间的公平性。

以LTE-Advanced为背景，针对多输入多输出—正交频分复用(MIMO-OFDM)系统中的关键技术——基于码本的有限反馈预编码进行了研究，提出了一种基于递归算法的有限反馈新方法。利用各子载波间的频域相关性，以前一个子载波所选码字为基础，通过内积运算排序的方法来确定当前子载波的码字集合，然后对与该新码字集合相对应的码字索引进行可变长编码，以用于系统反馈。仿真结果表明：在递归反馈算法的基础上利用可变长编码能有效降低LTE-Advanced系统的反馈开销。

针对相干多径环境，分别利用时间平滑和Toeplitz矩阵重构算法实现了复相干信号的波达方向(DoA)估计，并进一步通过数学分析和计算机仿真对这两种算法的性能进行了对比，得出结论：时间平滑算法和Toeplitz矩阵重构算法对复相干信号的DoA估计均具有效性，Toeplitz矩阵重构算法性能相对较好，但有一定阵列孔径损失；而基于时间平滑算法无阵列孔径损失，可估计M-1个多径信号(M为阵元数)，但计算量偏大。